Ông sinh ngày 11 tháng 11 năm 1924 tại Đà Nẵng. Ông cũng là người con thứ 11 trong một gia đình cha làm thợ may. Tuy sinh ra và lớn lên ở Đà Nẵng, nhưng nguyên quán gốc của ông ở Điện Bàn, Quảng Nam.

Ông bắt đầu hoạt động âm nhạc từ năm 1940 trong nhóm tân nhạc. Sau ca khúc đầu tay Trầu cau, sáng tác của ông được biết rộng rãi là bài Đoàn Vệ quốc quân viết cuối 1945. Một nhạc phẩm nổi tiếng khác của ông là Mùa đông binh sĩ được viết khoảng giữa thập niên 1940.

Trong kháng chiến chống thực dân Pháp, Phan Huỳnh Điểu gia nhập quân đội, công tác ở Liên khu 5. Thời gian này ông viết một số ca khúc như Nhớ ơn Hồ Chủ tịch, Quê tôi ở miền Nam...

Năm 1955, sau khi tập kết ra Bắc, ông công tác ở Ban Nhạc vũ, Hội Văn nghệ Việt Nam. Năm 1957, khi thành lập Hội Nhạc sĩ Việt Nam, ông được cử vào Ban chấp hành là Ủy viên Thường vụ và công tác tại Hà Nội. Tháng 12 1964, Phan Huỳnh Điểu vào chiến trường Trung Trung Bộ ở trong Ban văn nghệ Khu. Thời gian đó ông viết bản hành khúc Ra tiền tuyến với bút danh Huy Quang.

Sau 1975, Phan Huỳnh Điểu chuyển về Hội Âm nhạc thành phố Hồ Chí Minh và sống ở đó. Ông đã sáng tác và công bố hơn 100 ca khúc, quá nửa trong số đó là các bài hát phổ thơ.

Âm nhạc của Phan Huỳnh Điểu có giai điệu trau chuốt, trữ tình, ngay cả trong thể loại hành khúc, như Cuộc đời vẫn đẹp sao, Hành khúc ngày và đêm. Phan Huỳnh Điểu còn có nhiều ca khúc về đề tài tình yêu thành công như Tình trong lá thiếp, Những ánh sao đêm, Bóng cây Kơnia, Anh ở đầu sông em cuối sông, Sợi nhớ sợi thương, Ở hai đầu nỗi nhớ, Đêm nay anh ở đâu, Thuyền và biển, Thơ tình cuối mùa thu, Người ấy bây giờ đang ở đâu, Tình ca Đămbri, Tia nắng... Ông đã phổ nhạc thành công cho rất nhiều bài thơ.

Ngoài ra, ông còn sáng tác một số tác phẩm dành cho thiếu nhi, tiêu biểu là: Đội kèn tí hon, Nhớ ơn Bác...

Những nghệ sĩ thể hiện thành công tác phẩm của ông có thể kể đến Nghệ sĩ Nhân dân Quốc Hương, Nghệ sĩ ưu tú Vũ Dậu và Nghệ sĩ ưu tú Tuấn Phong.

Qua đời

Sau khi có dấu hiệu không khỏe và sốt nhẹ vào ngày 23 tháng 6 năm 2015, ông được bác sĩ đến khám tại nhà và được thông báo bị thiếu máu. Sau đó, ông được nhập viện vào sáng ngày 26 tháng 6 trong tình trạng còn khỏe và tỉnh táo. Sau 2 ngày nhập viện, ông bị hôn mê sâu và qua đời vào lúc 10 giờ 15 phút sáng ngày 29 tháng 6 tại bệnh viện Thống Nhất (Thành phố Hồ Chí Minh) vì sốt xuất huyết. Linh cữu của nhạc sĩ được quàn tại Nhà tang lễ Bộ Quốc phòng, Thành phố Hồ Chí Minh.[1][2] và lúc 4h30 sáng 10 tháng 7, gia đình, người thân, bạn bè, văn nghệ sĩ... đã rải tro cốt của ông về với sông Hàn (Đà Nẵng) theo di nguyện của cố nhạc sĩ.[4]

Tưởng niệm

Tối ngày 7 tháng 7 năm 2015, đêm nhạc tri ân, tưởng nhớ hai nhạc sĩ Phan Huỳnh Điểu và nhạc sĩ Phan Nhân do Báo Công an TP. HCM phối hợp với Ngân hàng BIDV và Nhạc viện TP HCM tổ chức đã diễn ra trong không khí hết sức ấm áp. Chương trình mở màn với nét viết hiện trên màn hình: “ngày 29 tháng 6 năm 2015” (ngày mất của hai nhạc sĩ Phan Huỳnh Điểu, Phan Nhân), hình ảnh điện tâm đồ, những trang nhạc, bút ngừng viết… Người thân, đồng nghiệp, bạn bè, những người yêu mến hai nhạc sĩ gạo cội của nền âm nhạc Việt Nam đã được thưởng thức lại ca khúc bất hủ đi cùng năm tháng của hai nhạc sĩ qua những phần trình bày hết sức tuyệt vời của các nghệ sĩ tham gia chương trình.[5]